Sau trận Xương Giang, Bình Định vương Lê Lợi sai người giải bọn Thôi Tụ, Hoàng Phúc cùng cờ trống, ấn tín, chiến cụ, sổ quân… đến trước thành Đông Quan cho bọn quân tướng Minh trong thành chứng kiến. Trông thấy đồng đội bị bắt và những bằng chứng về sự thất bại thảm hại của hai đạo viện binh, Vương Thông và quân tướng dưới quyền rất sửng sốt và sợ hãi. Sau đó quân ta lại đem tù binh và vật chứng đi dụ các thành khác, khắp nơi quân Minh sợ tái mặt. Niềm hy vọng cuối cùng cho các đội quân Minh bị bao vây trong các thành trì đã sụp đổ.

Thế nhưng bọn giặc đã trót gây thù oán nhiều, nên vẫn chần chừ không dám xếp giáp quy hàng. Quân tướng nước Minh vẫn sợ rằng một khi quân Lam Sơn được đắc thắng sẽ giết chết chúng để trả thù. Một khi buông hạ khí giới, mở cửa thành trì, quân Minh sẽ không còn tự quyết được số phận của mình mà hoàn toàn lệ thuộc vào lòng nhân từ của quân ta. Chính vì ý nghĩ đó, Vương Thông và thuộc hạ thà liều chết cố thủ, mong một trận liều chết với quân dân ta chứ không chịu đầu hàng.

Về phía nghĩa quân Lam Sơn, rất nhiều tướng sĩ cũng không muốn cho quân Minh đầu hàng. Hầu hết đều căm giận quân giặc tàn ngược, chỉ mong đánh một trận sống mái, một phen giết quân Minh để rửa hận.Thế nhưng Bình Định vương Lê Lợi vẫn mong mở một lối thoát cho quân Minh để khôi phục lại bang giao, và giúp quân ta đỡ tốn máu xương mà vẫn giành được độc lập cho đất nước. Đại tướng Nguyễn Lôi được lệnh dẫn phái đoàn đến các thành Tây Đô, Cổ Lộng dụ hàng. Hai thành này trước đây nghe theo lời bọn ngụy quan nên ngoan cố tử thủ, dù Nguyễn Trãi đã viết rất nhiều thư vẫn không chiêu dụ được. Nhưng nay trước sự bại vong đã rành rành trước mắt, bọn tướng Minh đành phải xếp giáp quy hàng, trông mong vào sự nhân từ của nghĩa quân Lam Sơn.

Riêng ở thành Đông Quan,vì thấy bọn giặc vẫn ngoan cố, Bình Định vương hạ lệnh cho các quân phòng bị càng nghiêm ngặt. Bọn quân Minh ra thành hái củi, chăn ngựa cũng đều bị quân ta bắt hết. Quân Lam Sơn dựng lên thêm những chiến lũy đối diện tường thành, từ đó quan sát và đặt súng đạn, cung tên bắn vào giặc. Các chiến xa, chiến cụ dùng cho việc công thành cũng được chuẩn bị kỹ lưỡng, đề phòng trường hợp bất đắc dĩ phải công phá thành Đông Quan.

Ngày càng bị đẩy vào thế khốn đốn, Vương Thông sai người đem thư xin hòa.Lê Lợi chấp nhận cùng quân Minh hòa nghị. Thế nhưng, Vương Thông vẫn chưa thực lòng hòa hiếu, mà muốn lấy việc xin hòa làm quân Lam Sơn trễ nải phòng bị.

Một ngày tháng 11/1427, Vương Thông thình lình đem hết quân trong thành đánh ra từ cửa nam, muốn đem hết sức bình sinh mà đánh một trận liều chết với quân ta. Thế nhưng mưu kế của Vương Thông đã bị quân ta lường trước được. Khi mấy vạn quân Minh trong thành đánh ra, quân Lam Sơn án ngữ phía cửa nam Đông Quan vờ thua chạy, giặc tiến ra xa một chút thì gặp quân mai phục đổ ra đánh khép lại. Quân Minh thất thế, tiến thoái lưỡng nan. Vương Thông biết không thể tiến lên được nữa, đành phải lệnh cho quân chạy ngược vào thành. Quân Lam Sơn khép vòng vây chặn ngang đường quân Minh chạy vào, vây lấy người ngựa của Vương Thông, quyết bắt sống tướng giặc. Vương Thông đánh nhau với quân ta bị ngã ngựa, suýt bị bắt sống nhưng may sao được bộ hạ cứu thoát, chạy được vào thành. Tổn thất của quân Minh càng thêm nặng nề.

Quân Lam Sơn truy kích quân Minh đến sát cửa nam thành Đông Quan, rồi đắp một chiến lũy chặn ngang lối ra vào của giặc. Bình Định vương Lê Lợi đốc suất quân sĩ đắp lũy dài từ Yên Hoa (Yên Phụ, Tây Hồ, Hà Nội ngày nay) đến tận cửa bắc thành Đông Quan, chỉ trong một đêm là xong. Quân Minh bị bức đến nỗi không còn lối ra vào thành.

Trước đó, Nguyễn Trãi đã mấy lần thư từ qua lại với bọn Vương Thông, khi thì nhân danh Trần Cảo, khi thì nhân danh Lê Lợi phân tích lẽ thiệt hơn, lấy điều tín nghĩa ra mà thuyết phục Vương Thông đầu hàng. Nhưng sự kiên nhẫn của các lãnh tụ quân Lam Sơn chỉ có giới hạn. Cơ hội cho Vương Thông đầu hàng không còn nhiều.

Cuối cùng, Vương Thông cũng phải chịu khuất phục vì đã bị dồn vào đường cùng. Hắn cho tập họp quân tướng lại, nói rằng : “Thành không thể giữ được, mà đánh không thể thắng, không gì bằng toàn quân trở về Bắc” (theo Việt Sử Tiêu Án). Bàn luận xong, quân Minh lại cho người đem thư sang ta xin hòa một lần nữa.

Bấy giờ nơi màn trướng quân Lam Sơn, khi thư của Vương Thông đến thì các tướng đều nhao nhao mắng bọn giặc Minh trí trá, khuyên Bình Định vương Lê Lợi nên dùng binh mà giết sạch bọn chúng đi. Duy chỉ có Hành khiển Nguyễn Trãi ngày ngày cùng Lê Lợi bàn định cơ mưu, được xem những thư từ bắt được của giặc, nắm rõ nhất về thực lực và toan tính của bọn Vương Thông nên vẫn chủ trương hòa nghị. Nguyễn Trãi cho mọi người xem bức thư của Vương Thông gởi về Minh triều bị quân ta bắt được: "Chớ vì một góc đất đai nhỏ nhoi mà bao phen làm nhọc quân đi muôn dặm. Giả sử dùng tới số quân như lần đánh ban đầu, có được sáu, bảy, tám viên đại tướng như bọn Trương Phụ thì mới có thể đánh được. Nhưng dẫu có đánh được cũng không thể nào giữ được" (theo Đại Việt Sử Ký Toàn Thư)

Bình Định vương Lê Lợi sau khi nghe các tướng lĩnh tranh luận một lượt rồi, ngài mới bàn rằng: "Việc dụng binh, lấy sự toàn quân [tức bảo toàn lực lượng] là hơn cả. Nay hãy để cho lũ Vương Thông về nói với vua nhà Minh, trả lại đất nước ta, không còn xâm lấn, thì ta còn cần gì hơn nữa, hà tất phải giết hết, để kết mối thù với nước lớn". (theo Đại Việt Thông Sử)

Các tướng nghe theo. Việc hòa nghị sau đó được tiến hành. Vương Thông sai Sơn Thọ, Mã Kỳ tới dinh Bồ Đề làm con tin. Đổi lại, Lê Lợi cũng cho thế tử Lê Tư Tề, đại tư mã Lưu Nhân Chú vào thành Đông Quan làm con tin. Hai bên định ngày lập đàn thề, bàn việc rút quân.

Ngày 10.12.1427, hai phái đoàn cùng đến hội thề ở ngoài cửa nam thành Đông Quan. Phái đoàn quân Lam Sơn do Bình Định vương Lê Lợi đứng đầu, cùng với bọn Vương Thông cam kết sẽ thực hiện những bước hoàn thành việc kết thúc chiến tranh. Văn thề có đoạn chủ yếu như sau:

“Chúng tôi cùng nhau phát tự lòng thành, ước hẹn thề thốt với nhau:

Từ sau khi lập lời thế này, quan tổng binh Thành sơn hầu là Vương Thông quả tự lòng thành, đúng theo lời bàn, đem quân về nước, không thể kéo dài năm tháng, để đợi viện binh đến nơi. Lại phải theo đúng sự lí trong bản tâu, đúng lời bán trước mà làm.

Bọn Lê Lợi chúng tôi nếu còn chứa giữ lòng làm hại, tự làm việc lừa dối, không dẹp xa ngay quân lính ngựa voi, việc làm không đúng lời nói ngầm sai… Các việc nói trên tuy là không tự mình làm lấy, lại chuyển sang người khác có xâm phạm đến một chút nào tức thì Trời, Đất, thần minh, núi cao sông lớn, cho đến thần kỳ các xứ, tôi cùng con cháu thân của tôi, và người cả một nước tôi, giết chết hết cả, không để sót lại mống nào.

Về phía bọn quan tổng binh Thành sơn hầu là Vương Thông, nếu không có lòng thực, lại tự trái lời thề (đối với việc) người phục dịch và các thuyền đã định rồi, cầu đập đường sá đã sửa rồi, mà không làm theo lời bàn, lập tức đem quân về nước, còn kéo dài năm tháng để đợi viện binh, cùng là ngày về đến triều đình lại không theo sự lí trong bản tâu, không sợ thần linh núi sông ở nước An Nam lại bàn khác đi, hoặc cho quan quân đi qua đâu cướp bóc nhân dân, thì Trời, Đất cùng là Danh sơn, Đại Xuyên và thần kỳ các xứ tất đem bọn quan tổng binh Thành sơn hầu là Vương Thông, tự bản thân cho đến cả nhà, thân thích, làm cho chết hết, và cả đến quan quân cũng không một người nào về được đến nhà.

Nếu mà cả hai bên đều do lòng thành cả thì Trời Đất thần minh đều phù hộ cho đến bản thân mình mạnh khỏe, trong nhà mình vinh thịnh, cùng hưởng lộc vị, đều được bình yên.

Trời, Đất thần kì cùng soi xét cho!” (theo Quân Trung Từ Mệnh Tập)

Những lời trong văn thề cũng là tóm tắt lại những thỏa thuận giữa nghĩa quân Lam Sơn và quân Minh. Theo đó, Hai bên cũng tiến hành trao đổi tù binh và con tin. Tướng Đỗ Bí cùng các quân tướng Lam Sơn bị bắt trước đó được trở về. Thượng thư nước Minh là Hoàng Phúc cùng hàng vạn tù binh trong trận Xương Giang cũng được Lê Lợi cho phóng thích. Riêng tướng Thôi Tụ bị bắt trong trận Xương Giang vì không chịu khuất phục nên đã bị quân Lam Sơn giết chết.

Quân ta chẳng những tha chết cho quân binh, thường dân người Minh về nước mà còn cho sửa sang cầu cống, đường sá, cấp thuyền bè, lương ăn cho chúng được đi lại dễ dàng. Vòng vây các thành Tây Đô, Cổ Lộng, Chí Linh được nới ra, cho quân Minh được tập kết lại ở Đông Quan rồi rút về nước một lượt. Khi quân Minh đã xuất hành, có nhiều quân dân lại khuyên Lê Lợi thừa cơ giết hết bọn chúng đi để báo thù, rửa mối hận mất nước và an ủi những linh hồn đã chết oan khuất bởi sự tàn bạo của giặc. Lê Lợi đáp lại rằng:

“Một lòng báo oán là thường tình của con người ta. Nhưng không thích giết người là bản tâm của bậc nhân giả. Vả chăng người ta đã ra hàng mà ta lại giết đi thì không còn gì không lành hơn nữa! Dữ kỳ hả cái giận trong một sớm, mà chịu mang tiếng giết kẻ đầu hàng với muôn đời, thì sao bằng để sống hàng ức, vạn mạng người, mà dứt mối chiến tranh về sau trong hai nước? Sử xanh chép lại, nghìn thuở còn thơm! Như thế lại không tốt đẹp hay sao ?” (theo Lam Sơn Thực Lục)

Đúng phương châm “Đem đại nghĩa để thắng hung tàn, lấy chí nhân để thay cường bạo” (trích Bình Ngô Đại Cáo ), tổng cộng cả quân mới, quân cũ và thường dân người Minh hết thảy chừng 30 vạn người đã được Bình Định vương Lê Lợi tha chết cho về nước. Cảm kích tầm lòng nhân từ, khoan dung của Lê Lợi, bọn quân Minh trước khi đi còn kéo nhau đến trước dinh Bồ Đề mà lạy tạ.

Cuộc chiến đánh đuổi quân Minh của nghĩa quân Lam Sơn về căn bản đã kết thúc tốt đẹp với việc quân Minh rút về nước. Tuy nhiên, đây chỉ là thỏa thuận của bọn Vương Thông với nghĩa quân Lam Sơn tại nơi thực địa. Để có được nền hòa bình lâu dài với nước Minh, ngăn chặn một làn sóng xâm lược mới, Lê Lợi cùng các chiến hữu của mình vẫn còn nhiều việc phải làm.

Đồng thời với việc nghị hòa với Vương Thông, Nguyễn Trãi vâng lệnh của Lê Lợi bắt tay vào việc hòa giải với vua Minh ở tại triều đình Bắc Kinh.